“人工智能教父”带着对毕生工作的遗憾和恐惧离开谷歌
导读：加入谷歌 10 年后，Geoffrey Hinton 离职了。这位神经网络先驱表示，聊天机器人的危险“相当可怕”，并警告说它们可能会被“坏人”利用。
突然，但又令人不那么意外：图灵奖得主、深度学习之父 Geoffrey Hinton 宣布从谷歌离职了。
一天前，纽约时报的一篇采访文章爆出了这一消息。
而 Hinton 在 Twitter 上的内容也证实了他从谷歌离职的消息。
这位常被人热捧为人工智能教父的人离开了谷歌，理由是担心错误信息泛滥、人工智能颠覆就业市场的可能性，以及创建真正的数字智能所带来的“生存风险”。
Geoffrey Hinton 博士在2012年在多伦多大学带领两名学生建立了一个神经网络。
75 岁的 Hinton 表示，他辞职是为了畅所欲言地谈论 AI 的危机，并对自己对该领域的贡献感到部分遗憾。十年前，他被谷歌聘用，帮助开发公司的 AI 技术，他开创的方法引领了 ChatGPT 等当前系统的发展。
直到去年，他一直认为谷歌一直是该技术的“适合的管理者”，但微软开始将聊天机器人整合到其 Bing 搜索引擎中时，这种情况就发生了变化，该公司开始担心其面临的风险，即搜索业务的颠覆。
他说，聊天机器人的一些危险“相当可怕”，并警告说它们可能变得比人类更聪明，并可能被“坏人”利用。“它能够自动生成大量文本，因此你可以获得大量非常有效的垃圾邮件机器人等等。”
“我得出的结论是，我们正在开发的人工智能与现有的人类智能非常不同，”他说。“就好像你有 10,000 个人，只要一个人学到了什么，每个人都会自动知道。这就是为什么这些聊天机器人比任何人都知道得多。”
错误信息的传播只是 Hinton 认为当下的当务之急。在更长远的时间内，他担心人工智能会消除死记硬背的工作，并可能随着人工智能开始编写和运行自己的代码而消灭人类本身。
“这种东西实际上可以变得比人类更聪明。很多人认为这还很遥远。我以前也认为这还很遥远。我认为它需要 30 到 50 年甚至更长的时间。显然，我现在不再这么想了。”
在AI 研究的高层中，他并不是唯一一个担心项目技术可能对人类造成严重危害的人。
上个月，马斯克表示与谷歌联合创始人拉里佩奇发生争执，因为佩奇“没有足够认真地对待人工智能安全”。马斯克批评佩奇想要“数字超级智能，基本上是推出数字天神，如果愿意的话，尽快发布”。
魁北克人工智能研究所 Mila 的CEO瓦莱丽·皮萨诺 (Valérie Pisano) 表示，任领域都不能容忍对人工智能系统安全采取草率的做法。“技术已经投入使用，当系统与人类互动时，它的开发人员应该能控制并看它会发生什么，并据此做出调整。作为一个人类集体，我们永远不会在任何其他工业领域接受放任的这种心态。
Hinton 的担忧在短期内已经成为现实——随着 AI 生成的照片、视频和文本充斥整个互联网，人们将无法再辨别其真伪。
最近对 Midjourney 等图像生成器的升级意味着人们现在可以制作逼真的图像，比如教皇弗朗西斯穿着 Balenciaga 羽绒服的图像在 3 月份走红网络。
Hinton 还担心人工智能最终会取代律师、私人助理等工作，而且未来可能会替代更多职业。
2012 年，Geoffrey Hinton 在多伦多带领的研究小组实现了深度学习的重大突破，彻底改变了语音识别与目标分类。
他与学生 Alex Krizhevsk、Ilya Sutskever 合作设计的卷积神经网络「Alexnet」以远超第二名的好成绩在 ImageNet 2012 挑战赛中夺得冠军，将 ImageNet 数据集上的视觉识别错误率降到了 15.3%。
这成为了计算机视觉领域的里程碑事件。后来，他们三个人共同成立了公司 DNNResearch。
2013 年，DNNResearch 被谷歌收购。从此，Hinton 等人也一并加入了谷歌。而在 2015 年，他的学生 Ilya Sutskever 加入 OpenAI，成为联合创始人与首席科学家。
谷歌首席科学家杰夫迪恩在一份声明中表示，感谢 Hinton 在过去十年中为公司做出的贡献。
“多年来，我非常享受我们之间的许多次谈话。我会想念他，祝他一切顺利！
“作为首批发布 AI 原则的公司之一，我们始终致力于对 AI 采取负责任的态度。我们在不断学习了解新出现的风险，同时也会大胆创新。
“当你看到的任何数据，不管是图片、音频或视频，你必须接受有人使用它进行欺骗的想法。”
如今刚好过去 10 年，75 岁的 Hinton 离开谷歌，后续会为 AI 发展带来哪些新的思考？
我们拭目以待～
参考链接
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html